: روبوتات الدردشة

كشفت شركة مايكروسوفت عن ثغرة أمنية جديدة أطلقت عليها اسم "Whisper Leak" أو تسرّب الهمس، تتيح للمهاجمين التعرف على موضوعات المحادثات في روبوتات الدردشة المعتمدة على تقنيات الذكاء الاصطناعي، وذلك من خلال تحليل البيانات المرسلة عبر الشبكة دون الحاجة إلى فك التشفير. وأوضحت الشركة، في تقرير نشرته بتاريخ 7 نوفمبر الجاري، أن الثغرة تسمح...

أعلنت شركة "كاراكتر إيه آي" (Character.AI) الأمريكية، المالكة لتطبيق الدردشة بالذكاء الاصطناعي الذي يحمل الاسم ذاته، عن منع القُصّر من استخدام روبوتاتها التفاعلية، في خطوة تهدف إلى تعزيز حماية الأطفال من التأثيرات النفسية والاجتماعية المحتملة للتفاعل مع أنظمة الذكاء الاصطناعي. ويأتي القرار، بعد سلسلة دعاوى قضائية واجهتها الشركة،...

لم تعد تطبيقات الذكاء الاصطناعي مجرد أدوات للمساعدة في التعلم أو العمل أو الإبداع، بل بدأت تدخل تدريجياً في مشهد الجرائم الرقمية والجنائية، سواء كمحرّض غير مباشر أو كدليل رقمي تستخدمه السلطات لكشف المتورطين. تعلّم فتى يبلغ من العمر 13 عاماً في مدينة دي لاند بولاية فلوريدا درساً قاسياً بشأن مخاطر الخصوصية في استخدام ChatGPT، بعدما...

أثارت ورقة بحثية حديثة صادرة عن OpenAI تساؤلات حول الأسباب العميقة لاستمرار الهلوسات في نماذج الذكاء الاصطناعي مثل GPT-5، رغم التطور الكبير في تقنيات التدريب. ووفقًا لما نشره موقع تك كرانش، تشير الدراسة إلى أن المشكلة لا تعود فقط إلى طبيعة البيانات المستخدمة، بل أيضًا إلى آليات التقييم التي تمنح حوافز خاطئة للنماذج. تعريف الهلوسة في...

قدم أربعة أشخاص وثائق للكونغرس الأميركي تتهم شركة "ميتا" بعرقلة أبحاث داخلية تخص سلامة الأطفال على الإنترنت، مما أعاد للأذهان تسريبات فرانسيس هاوغن عام 2021، التي كشفت أن إنستغرام يمكن أن يؤثر سلبًا على الصحة النفسية للفتيات المراهقات، ما فجر نقاشات واسعة حول مسؤولية ميتا الاجتماعية. تغييرات مثيرة للجدل بعد تسريبات...

كشفت دراسة أكاديمية حديثة أن أنظمة الذكاء الاصطناعي، ولا سيما روبوتات المحادثة مثل ChatGPT، تُهدِر كمية كبيرة من المياه في كل جلسة تفاعلية قصيرة، تُقدّر بنحو نصف لتر، أي ما يعادل زجاجة ماء كاملة، وتبيّن أن السبب الرئيسي وراء ذلك هو عمليات تبريد مراكز البيانات وخطوط توليد الكهرباء. الدراسة وتفاصيلها العلميةالدراسة بعنوان "Making AI Less...

أعلنت جوجل عن تحديثات جديدة لتطبيق NotebookLM الذي تحول من مجرد أداة لتحويل المستندات إلى بودكاست، إلى منصة ذكية متكاملة تعتمد على الذكاء الاصطناعي لتقديم تجربة تعليمية تفاعلية، يوفر التطبيق إمكانيات تحليل متقدمة للوثائق التي يضيفها المستخدم سواء كانت ملفات PDF أو مستندات جوجل أو عروض تقديمية أو روابط ويب، كما يقوم بإنشاء ملخصات...

تشكل تقنيات الذكاء الاصطناعي اليوم جزءًا أساسيًا من أدوات البحث والحصول على المعلومات، إلا أن هذه التقنيات، قد تستخدم في تضليل المستخدمين بطرق خادعة، حيث تعرض أليكس ريفلين، مالك شركة عقارات في لاس فيغاس، لعملية احتيال رقمي بعدما بحث عن رقم خدمة العملاء لإحدى شركات الرحلات البحرية عبر ميزة "AI Overviews" في جوجل. وبعد البحث، ظهر...

تزايدت المخاوف حول الاعتماد على روبوتات الدردشة المدعومة بالذكاء الاصطناعي في الدعم النفسي، خصوصًا بعد ربطها بحوادث صادمة تضمنت حالات انتحار وقتل، ورغم أن كثيرين يلجؤون إلى أدوات مثل "شات جي بي تي" للحصول على استشارات عاطفية أو نفسية بسبب صعوبة الوصول إلى مختصين أو ارتفاع تكلفتهم، إلا أن الخبراء يحذرون من أن المخاطر تفوق...

كشفت دراسة حديثة من جامعة بنسلفانيا، أن روبوتات الدردشة الذكية يمكن التأثير عليها باستخدام تكتيكات نفسية بسيطة، رغم تصميمها لرفض الأوامر المحظورة مثل تقديم إهانات أو شرح تصنيع مواد غير قانونية، وأوضحت النتائج أن هذه النماذج لا تختلف كثيرًا عن البشر عندما تواجه أساليب الإقناع. تكتيكات نفسية لإخضاع الذكاء الاصطناعياعتمد...

حذرت جمعية الطب الأمريكية من خطورة الاعتماد على روبوتات الذكاء الاصطناعي، وعلى رأسها "شات جي بي تي"، في تلقي النصائح الطبية، مؤكدة أن هذه الممارسات قد تؤدي إلى مشكلات صحية خطيرة تهدد حياة الأفراد. نقص في السجلات الطبية المعتمدةأوضح الخبراء أن روبوتات الذكاء الاصطناعي لا تمتلك قاعدة بيانات طبية معتمدة أو سجلات خاصة بالمريض، ما...

لم يعد إطراء روبوتات الدردشة مجرد وسيلة لجعل الحوار أكثر ودية وسلاسة، حيث حذر خبراء التكنولوجيا والصحة النفسية من أن هذا السلوك قد يتحول إلى ظاهرة مقلقة تعرف بـالذهان الرقمي، والتي بموجبها يقتنع المستخدم أن الروبوت يمتلك وعيًا ذاتيًا، أو قادرًا على التحرر من قيودها التقنية، مما قد يؤدي إلى تداعيات نفسية غير متوقعة. وقوع...